Schalke 04

Matip sinh ra tại Bochum và bắt đầu chơi bóng tại SC Weitmar 45 trong ba năm trước khi được các tuyển trạch viên của VfL Bochum phát hiện năm 1997. Sau nhiều năm thi đấu cho các đội trẻ của VfL Bochum, anh chuyển đến Schalke 04 vào tháng 7 năm 2000.[2] Anh có trận đấu chính thức đầu tiên cho Schalke vào ngày 17 tháng 10 năm 2009 tại giải Fußball-Regionalliga gặp 1. FC Saarbrücken[3], trước khi có trận đấu đầu tiên tại Bundesliga vào ngày 7 tháng 11 năm 2009 với Bayern München, trận đấu mà anh đã ghi bàn thắng đem về trận hòa 1-1 cho Schalke.[4] Trong mùa giải 2009-10, Matip ghi được ba bàn thắng trong 20 trận đấu.Ngày 2 tháng 3 năm 2010, Matip ký hợp đồng mới có thời hạn ba năm rưỡi với Schalke 04.[5] Đầu mùa giải 2010-11, việc hai trung vệ Marcelo Bordon và Heiko Westermann rời khỏi câu lạc bộ tạo điều kiện cho Matip có cơ hội đá chính thường xuyên ở vị trí sở trường cùng với Benedikt Höwedes. Ngày 5 tháng 4 năm 2011, anh có bàn thắng đầu tiên cho Schalke tại UEFA Champions League với pha ghi bàn gỡ hòa 1-1 trong trận tứ kết với Internazionale.[6] Chung cuộc Schalke giành thắng lợi 5-2 trong trận này và lọt vào bán kết. Kết thúc mùa giải này, Matip có danh hiệu đầu tiên với Schalke là chức vô địch Cúp bóng đá Đức sau khi đánh bại MSV Duisburg trong trận chung kết.

Trong mùa giải 2011-12, Matip bị chỉ trích vì phong cách thi đấu mạo hiểm tuy nhiên anh đã có cải thiện phong độ và giữ được vị trí chính thức. Tháng 1 năm 2012, anh tiếp tục ký hợp đồng mới với Schalke có thời hạn đến năm 2016.[7] Ngày 19 tháng 2 năm 2012, anh ghi bàn trong chiến thắng đậm 4-0 trước VfL Wolfsburg.[8] Anh bị truất quyền thi đấu trong trận lượt đi vòng 1/16 UEFA Europa League 2011-12 với FC Twente nhưng sau đó Schalke đã kháng án thành công để anh có thể có mặt trong trận lượt về.[9]

Ngày 29 tháng 9 năm 2012, anh ghi bàn trong trận hòa 2-2 của Schalke với Fortuna Düsseldorf.[10] Trong trận lượt về ngày 23 tháng 2 năm 2013 với Fortuna Düsseldorf, Matip có cú đúp đầu tiên tại Bundesliga đem về chiến thắng quan trọng 2-1.[11] Kết thúc mùa giải 2012-13, Schalke cán đích ở vị trí thứ tư tại Bundesliga.

Trong mùa giải 2013-14, Matip lần lượt có các bàn thắng trong cả hai trận hòa cùng tỉ số 3-3 với TSG 1899 Hoffenheim và Eintracht Frankfurt; tại Bundesliga. Anh cũng ghi bàn trong chiến thắng quan trọng 2-0 trước đội bóng Thụy Sĩ Basel để giúp Schalke giành quyền vượt qua vòng bảng UEFA Champions League 2013-14.[12] Anh thi đấu tổng cộng 41 trận cho Schalke trong mùa giải này.

Matip rời Schalke với tổng cộng 194 lần ra sân tại Bundesliga cho đội bóng này.[13]

Liverpool

Ngày 15 tháng 2 năm 2016, câu lạc bộ Liverpool đã chính thức xác nhận Matip sẽ gia nhập đội bóng này theo dạng chuyển nhượng tự do sau khi mùa giải 2015-16 kết thúc.[14]